Zariski được sinh ngày 24 tháng 4, 1899 với tên là Oscher (có thể đọc là Ascher hoặc Osher) Zaritsky tại Kobryn, đế quốc Nga (nay thuộc tỉnh Brest của Belarus), là thành viên của gia đình người Do Thái (cha mẹ ông là Bezalel Zaritsky và Hanna Tennenbaum). Vào năm 1918, ông theo học Đại học Quốc gia Kyiv. Ông rời khỏi Kiev vào năm 1920 và theo học Đại học Roma La Sapienza, nơi ông trở thành môn đệ của Trường học hình học đại số của Ý, làm việc với Guido Castelnuovo, Federigo Enriques và Francesco Severi.

Zariski đã viết một luận án tiến sĩ năm 1924 về một chủ đề trong Lý thuyết Galois, được đề xuất với ông bởi Castelnuovo. Tại thời điểm xuất bản luận án của mình, ông đã đổi tên thành Oscar Zariski.